Untuk rencana lanjut, sila lihat Ali Abi Talib

Pada tahun 656 M, khalifah ketiga Islam iaitu Khalifah Uthman Affan wafat kerana dibunuh oleh pemberontak di dalam rumahnya sendiri. Segelintir masyarakat kemudiannya mencadangkan supaya Ali menjadi khalifah tetapi Ali menolak. Namun selepas didesak oleh pengikutnya, beliau akhirnya bersetuju menjadi khalifah.

Ketika pemerintahannya telah terjadi dua perang saudara di kalangan umat Islam, iaitu Perang Jamal ("Perang Unta") antara tentera pimpinan Ali dengan pengikut Saiditina Aisyah binti Abu Bakar. Dalam perang ini, Zubair ibn Awwam dan Talhah ibn Ubaidillah telah terkorban. Perang Jamal berjaya dipadam oleh Khalifah Ali. Selepas tamat Perang Jamal, Khalifah Ali menghantar Saiditina Aisyah kembali ke Madinah sementara Perang Siffin pula membabitkan penentangan Muawiyah yang ketika itu berpusat di Damsyik. Dalam peperangan ini, Ammar ibn Yasir terkorban. Penentangan ini berjaya ditamatkan apabila empayar Islam dipecahkan kepada dua.

Ali wafat pada tahun 661 Masihi akibat dibunuh oleh Abdul Rahman bin Muljam ketika beliau dalam perjalanan ke masjid untuk menunaikan solat subuh.